Theo thần phả ở vùng Đông Ngạc, thì Phan Phu Tiên từng thi đỗ Thái học sinh (tương đương Tiến sĩ) đời Trần Thuận Tông (ở ngôi: 1388-1398), và từng bổ chức quan [2].

Lại có tài liệu, như Toàn Việt thi lục, thì cho rằng ông đã thi đỗ khoa Hoành từ tại hành doanh Bồ Đề vào năm 1428 [3].

Song có điều chắc chắn là sau ngày kháng Minh toàn thắng, năm 1429, vua Lê Thái Tổ cho mở khoa thi Minh kinh bác học để chọn nhân tài, ông đã ra dự thi và đỗ thứ ba sau Triệu Thái và Trần Thuấn Du.

Sau khi thi đỗ, Phan Phu Tiên được bổ làm Đồng tu sử ở Viện Quốc Sử. Ở đây, ông vâng lệnh biên soạn Việt âm thi tập, và đây chính là "bộ hợp tuyển thơ văn đầu tiên của nước Việt" [3].

Năm 1433, Việt âm thi tập cơ bản đã hoàn thành, định đem khắc in, thì Phan Phu Tiên được bổ làm An phủ sứ ở Thiên Trường (Nam Định ngày nay), rồi ở Hoan Châu (Nghệ An-Hà Tĩnh ngày nay), nên đành phải gác lại[4].

Nhiều năm sau, vua Lê Nhân Tông triệu ông về lại Viện Quốc sử. Năm 1455[5], nhà vua giao cho ông biên soạn Đại Việt sử ký tục biên (chép từ Trần Thái Tông cho đến khi quân nhà Minh rút về nước, tức viết nối tiếp Đại Việt sử ký của Lê Văn Hưu đời Trần), nhưng nay đã thất lạc [6].

Theo tài liệu thì ông còn biên soạn cuốn Bản thảo thực vật toát yếu (Tóm lược sách bản thảo thực vật), nhưng sau đó đã thất lạc[3]. Nội dung sách bao gồm các biện pháp chữa bệnh, nhưng chú trọng đến chế độ ăn uống hơn cả. Ông đã kê ra hơn 400 loại thức ăn động vật và thực vật có ở trong nước và các công dụng của các loại thức ăn đó [7].

Phan Phu Tiên mất năm nào không rõ. Ngày nay, ở quê hương ông, làng Vẽ (Đông Ngạc) vẫn còn đền thờ ông. Tại trung tâm thành phố Hà Nội (quận Đống Đa) cũng có phố mang tên ông (Phố Phan Phù Tiên).